<!DOCTYPE HTML>
<html>

<head>
	<link rel="bookmark"  type="image/x-icon"  href="/img/logo.jpg"/>
	<link rel="shortcut icon" href="/img/logo.jpg">
	
			    <title>
    北望你的安
    </title>
    <meta charset="utf-8" />
    <meta name="viewport" content="width=device-width, initial-scale=1, user-scalable=no" />
    <link rel="stylesheet" href="/css/mic_main.css" />
    <link rel="stylesheet" href="/css/dropdownMenu.css" />
    <meta name="keywords" content="北望你的安" />
    
    	<script async src="//busuanzi.ibruce.info/busuanzi/2.3/busuanzi.pure.mini.js"></script>
	 
    <noscript>
        <link rel="stylesheet" href="/css/noscript.css" />
    </noscript>
    <style type="text/css">
        body:before {
          content: ' ';
          position: fixed;
          top: 0;
          background: url('/img/bg.jpg') center 0 no-repeat;
          right: 0;
          bottom: 0;
          left: 0;
          background-size: cover; 
        }
    </style>

			    
  


    <script src="/js/jquery.min.js"></script>
    <script src="/js/jquery.scrollex.min.js"></script>
    <script src="/js/jquery.scrolly.min.js"></script>
    <script src="/js/skel.min.js"></script>
    <script src="/js/util.js"></script>
    <script src="/js/main.js"></script>
	
</head>
    
		
<!-- Layouts -->



<!--  代码渲染  -->
<link rel="stylesheet" href="/css/prism_coy.css" />
<link rel="stylesheet" href="/css/typo.css" />
<!-- 文章页 -->
<body class="is-loading">
    <!-- Wrapper 外包 s-->
    <div id="wrapper" class="fade-in">
        <!-- Intro 头部显示 s -->
        <!-- Intro 头部显示 e -->
        <!-- Header 头部logo start -->
        <header id="header">
    <a href="/" class="logo">Krystalan</a>
</header>
        <!-- Nav 导航条 start -->
        <nav id="nav" class="special" >
            <ul class="menu links" >
			<!-- Homepage  主页  --> 
			<li >
	            <a href="/" rel="nofollow">主页</a>
	        </li>
			<!-- categories_name  分类   --> 
	        
	        <li class="active">
	            <a href="#s1">分类</a>
	                    <ul class="submenu">
	                        <li>
	                        <a class="category-link" href="/categories/%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0/">强化学习</a></li><li><a class="category-link" href="/categories/%E6%95%B0%E5%AD%A6/">数学</a></li><li><a class="category-link" href="/categories/%E7%AE%97%E6%B3%95/">算法</a></li><li><a class="category-link" href="/categories/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86/">自然语言处理</a></li><li><a class="category-link" href="/categories/%E9%9A%8F%E7%AC%94/">随笔</a>
	                    </ul>
	        </li>
	        
	        <!-- archives  归档   --> 
	        
	        
		        <!-- Pages 自定义   -->
		        
		        <li>
		            <a href="/tags/" title="标签">
		                标签
		            </a>
		        </li>
		        
		        <li>
		            <a href="/gallery/" title="相册">
		                相册
		            </a>
		        </li>
		        


            </ul>
            <!-- icons 图标   -->
			<ul class="icons">
                    
                    <li>
                        <a title="github" href="https://github.com/krystalan" target="_blank" rel="noopener">
                            <i class="icon fa fa-github"></i>
                        </a>
                    </li>
                    
                    <li>
                        <a title="500px" href="https://www.zhihu.com/people/krystalzhu-an" target="_blank" rel="noopener">
                            <i class="icon fa fa-500px"></i>
                        </a>
                    </li>
                    
			</ul>
</nav>

        <div id="main" >
            <div class ="post_page_title_img" style="height: 25rem;background-image: url(/img/8.jpg);background-position: center; background-repeat:no-repeat; background-size:cover;-moz-background-size:cover;overflow:hidden;" >
                <a href="#" style="padding: 4rem 4rem 2rem 4rem ;"><h2 >随机过程 第1章&amp;第2章</h2></a>
            </div>
            <!-- Post -->
            <div class="typo" style="padding: 3rem;">
                <p>新开一个坑，主要来记录自己学习随机过程的笔记，之前有看过中科院2010年的随机过程课程，非常推荐大家去学习，老师讲的非常好，尽管XX画质，但不影响食用，视频评论区有相应的PDF，B站链接：<a href="https://www.bilibili.com/video/av19313110" target="_blank" rel="noopener">https://www.bilibili.com/video/av19313110</a>  </p>
<p>当初学这个课程是觉得，自己遇到了瓶颈，因为在看LDA的时候发现自己概率欠的好多，本科阶段学习的概率论相对于这些来说简直大巫见小巫，除此之外自己之后还会学习概率图模型（希望flag不要倒）  </p>
<p>本系列主要是针对于《应用随机过程概率模型导论》一书的学习做一个总结。<br><img src="/images/SP/1.jpg" alt="《应用随机过程概率模型导论》"><br>啰嗦一句，不论是一开始说的中科院随机过程课程还是这本书，都是不带测度的。引用本书的一段话：  </p>
<blockquote>
<p>学习概率论有两种方法，一种是直观而不严格的方法，其意图是培养学生对学科的直观感觉,以使其能“从概率论角度思考”。另一种方法试图用测度论工具严格地研究概率论。  </p>
</blockquote>
<h1 id="第一章-概率论引论"><a href="#第一章-概率论引论" class="headerlink" title="第一章 概率论引论"></a>第一章 概率论引论</h1><p>这一章内容比较简单，主要包括了一些概率论的基础概念，例如：样本空间与事件、概率、条件概率、独立事件以及贝叶斯公式。需要注意的有： </p>
<h2 id="1-1-两两独立的事件不一定联合独立"><a href="#1-1-两两独立的事件不一定联合独立" class="headerlink" title="1.1 两两独立的事件不一定联合独立"></a>1.1 两两独立的事件不一定联合独立</h2><p>例如下面这个例子：<br><img src="/images/SP/2.jpg" alt="《应用随机过程概率模型导论》">    </p>
<h2 id="1-2-贝叶斯公式"><a href="#1-2-贝叶斯公式" class="headerlink" title="1.2 贝叶斯公式"></a>1.2 贝叶斯公式</h2><p>贝叶斯公式中用到了全概率公式<br><img src="/images/SP/3.jpg" alt="《应用随机过程概率模型导论》">    </p>
<h1 id="第二章-随机变量"><a href="#第二章-随机变量" class="headerlink" title="第二章 随机变量"></a>第二章 随机变量</h1><p>定义在样本空间上的实值函数，称为随机变量。如果所关心的随机变量，或者取有限可能的值，或者取可数个可能的值，这样的随机变量称为离散的，即<strong>离散型随机变量</strong>。（注意这里的可数概念，是离散数学当中的一个基本概念，指的是与自然数存在一一映射关系）而如果存在取连续多个可能值，则为<strong>连续型随机变量</strong>。举个例子，摇一枚筛子，面朝上的数字是一个离散型随机变量，而某一时刻某辆车的时速，则是一个联系型随机变量。  </p>
<h2 id="2-1-离散型随机变量"><a href="#2-1-离散型随机变量" class="headerlink" title="2.1 离散型随机变量"></a>2.1 离散型随机变量</h2><p>离散型随机变量通常依据概率密度函数分类，我们现在研究一些这样的随机变量。  </p>
<h3 id="2-1-1-伯努利分布-Bernoulli-distribution"><a href="#2-1-1-伯努利分布-Bernoulli-distribution" class="headerlink" title="2.1.1 伯努利分布(Bernoulli distribution)"></a>2.1.1 伯努利分布(Bernoulli distribution)</h3><p><img src="/images/SP/4.jpg" alt="《应用随机过程概率模型导论》"><br>可以想成投硬币问题</p>
<h3 id="2-1-2-二项（伯努利）分布-Binomial-distribution"><a href="#2-1-2-二项（伯努利）分布-Binomial-distribution" class="headerlink" title="2.1.2 二项（伯努利）分布(Binomial distribution)"></a>2.1.2 二项（伯努利）分布(Binomial distribution)</h3><p><img src="/images/SP/5.jpg" alt="《应用随机过程概率模型导论》"><br>可以想成投n个硬币，k次朝上（下）的概率<br>X~B(n,p)</p>
<h3 id="2-1-3-多项（伯努利）分布-Multinomial-distribution"><a href="#2-1-3-多项（伯努利）分布-Multinomial-distribution" class="headerlink" title="2.1.3 多项（伯努利）分布(Multinomial distribution)"></a>2.1.3 多项（伯努利）分布(Multinomial distribution)</h3><p>这是把二项分布扩展到了多项上，在二项分布当中，事件只有两个状态，而在多项中，有m个，且这m个状态互斥，各个状态的概率记为θm。则多项分布，描述在n次实验中，每种状态发生次数的概率。<br><img src="/images/SP/6.jpg" alt="《应用随机过程概率模型导论》"><br>推导过程也很简单，这里就不展开了</p>
<h3 id="2-1-4-几何分布"><a href="#2-1-4-几何分布" class="headerlink" title="2.1.4 几何分布"></a>2.1.4 几何分布</h3><p><img src="/images/SP/7.jpg" alt="《应用随机过程概率模型导论》"><br>可以想象成为进行独立试验直到出现一个结果为成功，成功的概率为p。</p>
<h3 id="2-1-5-超几何分布"><a href="#2-1-5-超几何分布" class="headerlink" title="2.1.5 超几何分布"></a>2.1.5 超几何分布</h3><p><img src="/images/SP/8.jpg" alt="《应用随机过程概率模型导论》"><br>可以看做出抽次品问题，首先一共有N个物品，其中有m个为次品，从中不放回抽n次，抽到了k个次品的概率。</p>
<h3 id="2-1-6-泊松分布"><a href="#2-1-6-泊松分布" class="headerlink" title="2.1.6 泊松分布"></a>2.1.6 泊松分布</h3><p><img src="/images/SP/9.jpg" alt="《应用随机过程概率模型导论》"><br>泊松分布描述的是一定时间和空间内出现的事件个数的情况。例如在一定时间内某交通路口所发生的事故的个数。<br>X~P(λ)<br>需要注意的是，在一定条件下较难计算的二项分布可以转换为泊松分布来计算。n很大，p很小，但np=λ不大。</p>
<h3 id="2-1-7-负二项分布"><a href="#2-1-7-负二项分布" class="headerlink" title="2.1.7 负二项分布"></a>2.1.7 负二项分布</h3><p>这个分布是从陈希孺老师的《概统》中看到的，是抽次品问题的另一个角度所得到的一种分布，我们也来看一下：<br><img src="/images/SP/10.jpg" alt="《应用随机过程概率模型导论》"><br>其代表的是在前k+r-1次抽取中，恰有r-1个废品，且第k+r次抽取，抽出废品。<br>可以看出，其假设的是抽出分配的概率固定为p</p>
<h2 id="2-2-连续性随机变量"><a href="#2-2-连续性随机变量" class="headerlink" title="2.2 连续性随机变量"></a>2.2 连续性随机变量</h2><h3 id="2-2-1-均匀分布"><a href="#2-2-1-均匀分布" class="headerlink" title="2.2.1 均匀分布"></a>2.2.1 均匀分布</h3><p>X~U(a,b)<br>p = (x-a)/(b-a) if a≤x≤b else 0</p>
<h3 id="2-2-2-正态分布"><a href="#2-2-2-正态分布" class="headerlink" title="2.2.2 正态分布"></a>2.2.2 正态分布</h3><p><img src="/images/SP/11.jpg" alt="《应用随机过程概率模型导论》"><br>X~N（μ，σ^2）  </p>
<h3 id="2-2-3-指数分布"><a href="#2-2-3-指数分布" class="headerlink" title="2.2.3 指数分布"></a>2.2.3 指数分布</h3><p><img src="/images/SP/12.jpg" alt="《应用随机过程概率模型导论》"><br><img src="/images/SP/13.jpg" alt="《应用随机过程概率模型导论》"><br>指数分布最常见的场合就是寿命分布，前提是无老化，若考虑老化则是威尔逊分布。  </p>
<h3 id="2-2-4-威尔逊分布"><a href="#2-2-4-威尔逊分布" class="headerlink" title="2.2.4 威尔逊分布"></a>2.2.4 威尔逊分布</h3><h3 id="2-2-5-伽马分布"><a href="#2-2-5-伽马分布" class="headerlink" title="2.2.5 伽马分布"></a>2.2.5 伽马分布</h3><p><img src="/images/SP/14.jpg" alt="《应用随机过程概率模型导论》"><br>其中伽马函数的定义如下：<br><img src="/images/SP/15.jpg" alt="《应用随机过程概率模型导论》"><br>当x为整数时有：<br><img src="/images/SP/16.jpg" alt="《应用随机过程概率模型导论》"><br>因此伽马函数可以看成阶乘在实数域上的扩展。  </p>
<h2 id="2-3-期望"><a href="#2-3-期望" class="headerlink" title="2.3 期望"></a>2.3 期望</h2><h2 id="2-4-方差"><a href="#2-4-方差" class="headerlink" title="2.4 方差"></a>2.4 方差</h2><p><img src="/images/SP/17.jpg" alt="《应用随机过程概率模型导论》">   </p>
<h2 id="2-5-协方差"><a href="#2-5-协方差" class="headerlink" title="2.5 协方差"></a>2.5 协方差</h2><p><img src="/images/SP/18.jpg" alt="《应用随机过程概率模型导论》"><br>有<img src="/images/SP/19.jpg" alt="《应用随机过程概率模型导论》">  </p>
<h2 id="2-6-矩母函数"><a href="#2-6-矩母函数" class="headerlink" title="2.6 矩母函数"></a>2.6 矩母函数</h2><p><img src="/images/SP/20.jpg" alt="《应用随机过程概率模型导论》"><br>对于随机变量X，能通过矩母函数得到其所有的矩。<br><img src="/images/SP/21.jpg" alt="《应用随机过程概率模型导论》"><br>最后来总结一下常见的几个分布的均值、方差以及矩母函数<br><img src="/images/SP/22.jpg" alt="《应用随机过程概率模型导论》"><br><img src="/images/SP/23.jpg" alt="《应用随机过程概率模型导论》">   </p>
<h2 id="2-7-发生事件数的分布"><a href="#2-7-发生事件数的分布" class="headerlink" title="2.7 发生事件数的分布"></a>2.7 发生事件数的分布</h2><p>考虑任意事件A1，A2，…，An，记X为这些事件中发生的个数。<br><img src="/images/SP/24.jpg" alt="《应用随机过程概率模型导论》"><br>我们定义sk为n个事件中任意k个不同事件的交的概率的和，容斥公式即为：<br><img src="/images/SP/25.jpg" alt="《应用随机过程概率模型导论》"><br>经过一系列复杂的证明，我们也能得到结论：<br><img src="/images/SP/26.jpg" alt="《应用随机过程概率模型导论》"><br><img src="/images/SP/27.jpg" alt="《应用随机过程概率模型导论》"> </p>
<h2 id="2-8-极限定理"><a href="#2-8-极限定理" class="headerlink" title="2.8 极限定理"></a>2.8 极限定理</h2><h3 id="马儿可夫不等式"><a href="#马儿可夫不等式" class="headerlink" title="马儿可夫不等式"></a>马儿可夫不等式</h3><p><img src="/images/SP/28.jpg" alt="《应用随机过程概率模型导论》">   </p>
<h3 id="切比雪夫不等式"><a href="#切比雪夫不等式" class="headerlink" title="切比雪夫不等式"></a>切比雪夫不等式</h3><p><img src="/images/SP/29.jpg" alt="《应用随机过程概率模型导论》"> </p>
<h3 id="中心极限定理"><a href="#中心极限定理" class="headerlink" title="中心极限定理"></a>中心极限定理</h3><p><img src="/images/SP/30.jpg" alt="《应用随机过程概率模型导论》"><br>其中每个Xi独立同分布，均值为μ，方差为σ^2。</p>
<h2 id="2-9-随机过程"><a href="#2-9-随机过程" class="headerlink" title="2.9 随机过程"></a>2.9 随机过程</h2><p>这一节引入了全书的重点研究对象——随机过程。<br><img src="/images/SP/31.jpg" alt="《应用随机过程概率模型导论》"><br>原书上的定义通俗易懂，所以直接贴上来了。</p>

            </div>

            <!-- Post Comments -->
            

        </div>
        <!-- Copyright 版权 start -->
                <div id="copyright">
            <ul>
                <li>&copy;2020 北望你的安. 版权所有</li>
            </ul>
            
                <span id="busuanzi_container_site_pv">本站总访问量<span id="busuanzi_value_site_pv"></span>次，</span>
				<span id="busuanzi_container_site_uv"> 访客数 <span id="busuanzi_value_site_uv"></span> 人. </span>
			
			<br>
			<span>友情链接：<a href='http://www.demilab.cn' target='_blank'>DEMI实验室</a>&nbsp;&nbsp;&nbsp;<a href='http://zd11024.cn/' target='_blank'>ZD</a></span>
        </div>
    </div>
</body>



 	
</html>
